2024 COMPUTEX論劍:AWS 用3招助產業「懂用」生成式AI
-
DIGITIMES
/
台北
- 2024-06-24 18:11:29
圖說 : 全球雲端服務大廠Amazon Web Services (AWS),由AWS Enterprise Strategist - Xia Zhang擔任專題演講人,分享AWS如何運用生成式AI為數位創新帶來突破。Amazon Web Services (AWS)。
AI旋風席捲全球各界,這股浪潮也吹進2024台北國際電腦展(COMPUTEX 2024),大會論壇更以「生成式AI新賽局」作為主題,向論壇聽眾論述最新技術與應用趨勢,全球雲端服務大廠Amazon Web Services (AWS) 也在5日上午壓軸登場,並由AWS Enterprise Strategist - Xia Zhang擔任專題演講人,分享AWS如何運用生成式AI為數位創新帶來突破。
Xia Zhang在演講開頭就直接指出,生成式AI創造商業價值是進行式,特別在「創造工作體驗、提升製造產能、洞見決策關鍵、實現內容創意」上影響顯著,也受各界關注,為此企業也趨之若鶩地希望導入人工智慧,但實務上卻面對著「1. 基礎模型版本、2. 客製化不易、3. 資料安全與隱私、4. 選擇應用場景、5. 連結企業資源複雜、6. 管理架構層欠缺能力」等7個挑戰,讓企業不得其門而入,只能站在人工智慧浪潮的入口觀望。
AI起手式:做選擇,採取敏捷佈建的雲端服務
對此Xia Zhang則直言,企業想要快速進入人工智慧領域,採取技術與資源兼具的雲端服務已是當前主流選擇,除了避免地端尚未建置完成,人工智慧又有了重大突破、難以追趕,企業更是看上雲端服務提供商在「多產業、大場景」下的實務戰績,如AWS的生成式AI早已應用於「健康醫療、生產製造、金融服務、零售量販、媒體娛樂、交通車輛、教育學習」七個領域。
舉例來說,如被高度期待AI化的生產製造,AWS就可協助業者達成「設備維護預測、製造良率優化、產能需求估算」,進一步實現智慧製造的可能;同樣倍受期待的交通車輛,也能達成「設計更安全省油的車輛、提升車輛性能品質、塑造個性化駕乘體驗」;而協助媒體娛樂「激發創作內容、增強互動體驗、提供個人化推薦」也只是AWS生成式AI的基本表現。
AI第二式:用數據,打造專屬客製的基礎模型
「想要打造與眾不同的AI,善用自有數據是差異化關鍵」Xia Zhang坦言,許多企業想導入AI、但卻缺乏實際可用的數據。事實上,多數企業先是欠缺數據的「採集思維」,也不懂得數據的處理:收納、分類、分析、訓練,如資料湖就是「收納」不分型式的資料、資料庫就是「分類」圖型、時間序列、文件等資料型態,進入「分析」則有資料倉儲、資料整合、商業智慧、營運分析等運用,最後則把資料用來「訓練」機器學習與生成式AI。
Xia Zhang進一步說明在實務上,就是把未經標籤化的資料,提供給AI進行「預訓練」,透過基礎模型來重新「編寫」資料,產出後的資料再打上標籤或不記標籤,分別依照語意理解,匹配生成內容給各種「任務」,包含,文本撰寫、內容摘要、資訊提取、諮詢問答、聊天機器人…等。
Xia Zhang也指出,當企業導入時,想要進一步提升自家生成式AI所產出的精準度,首先以透過擷取技術(RAG)增強生成,或是運用微調(FINE-TUNING)來逐步修正,同時也建議長期且持續地為AI進行預訓練(CONTINUED PRETRAINING),如此下來不僅內容準確性增加,也等於讓下咒語/問答的理解力更加敏銳。
AI第三式:拼全面,用功能組合建構生成式AI
LLM大型語言模型開啟了人們對於AI的盼望,彷彿電影中無所不知的AI即將問世眼前。事實上,在此之前AI一直被定位為「垂直應用」,意即在某領域訓練的AI經驗,難以跨其他領域應用,而生成式AI堆疊(Generative AI Stack)則有望與LLM一起打破這個框架。所謂的「堆疊」顧名思義就是將技術服務整合一起,讓數據互通,產生綜效價值,或可需要時呼叫應用、或可資源串連相輔相成。
Xia Zhang對此也提出AI堆疊的三個步驟,基礎實施是「基礎模行與其他基礎模型整合」,進階實施「大行語言模型與基礎模型的聯合建構」、深度實施則在「設計專屬架構,來協助基礎模型的預訓練與推演」。「這當中已經進入了AI架構層、應用層與硬體的整合範疇,而AWS都已有成熟的服務來為企業敏捷佈署、穩固建置,包含:GPUs、AWS Trainium、AWS Inferentia、 Amazon SageMaker、Amazon EC2 UltraClusters、EFA (Elastic Fabric Adapter)、Amazon EC2 Capacity Blocks for ML、AWS Nitro System、AWS Neuron…等。
企業若想從頭開始、無中生有的建置AI,則可採取Amazon SageMaker實施機器學習模型的建置、訓練、部署;Amazon Bedrock則可以規模化建置生成式AI的基礎模型;Amazon Q則進一步把前述的佈置轉換成生成式AI助手,改變工作模式;也能透過Amazon CodeWhisper來賦能AI開發人員,提供更好的程式編寫建議、訓練基礎模型。
全球10,000家知名企業,採用AWS服務進軍AI領域
Xia Zhang特別說明,全球已有超過1萬家知名企業在進入AI領域時,選擇採用AWS雲端服務Amazon Bedrock,如知名運動品牌Adidas就建置AI助手改變工作模式,為工程師賦能,從知識庫中找到資訊與答案,有效解決需要高技術含量的問題。
同時,美國開利空調大廠Carrier也使用Amazon Bedrock幫助客戶實現永續發展目標,利用Amazon Textract從客戶的水電費帳單中提取信息,做好節電、碳排、用電等能源管理,讓永續數據管理更智慧化!
Xia Zhang也向台灣企業建議,數位轉型的路途與AI密不可,導入AI不僅要選擇適合的服務方式,更要從「賦能工作團隊、為企業帶來機會」來考量,也用實際行動來取代對AI的觀望,透過實作為企業帶來經驗與案例,並且對AI帶來的應用表現持續監測、留下紀錄、敢於實踐、推陳出新。